Уровень повышен! Теперь ты детектив по искусственному интеллекту!Не совсем! Проверь подсказки еще раз.Метрика доверия обновлена ... Это ... ? ... Или ...
Если ИИ обучается на данных, в которых отсутствуют определённые группы людей, то каким будет ИИ?
Правильно! ИИ — это зеркало. Если данные несправедливы или содержат недостающую информацию, решения ИИ будут предвзятыми.
Как называется ситуация, когда ИИ придумывает ложный факт, который звучит правдоподобно?
Точно! Это называется галлюцинацией — ИИ «мечтает» о ответах, основываясь на паттернах слов.
Всегда ли ИИ знает «правду»?
Точно! ИИ ищет паттерны и вероятности, что не всегда совпадает с истиной.
Почему ИИ для проверки резюме может игнорировать талантливых людей из разных групп?
Верно! Если обучающие данные ограничены, ИИ математически заключает, что «разное» означает «не соответствующий требованиям».
Что вы должны сделать, если ИИ предоставил вам факт для школьного проекта?
Отлично! Всегда проверяйте информацию от ИИ, потому что он иногда уверенно «галлюцинирует» ложные детали.
ИИ сейчас ошибается случайно, но могут ли люди намеренно использовать ИИ, чтобы обмануть других?
Да! Как мы увидим далее, понимание ошибок ИИ помогает подготовиться к миру целенаправленных обманов.
1
Искусственный интеллект: предвзятость и галлюцинации
EvoClass-ИИ004Лекция 10
0
🤖 Бип-боп! Я ваш проводник по этике. Выберите загадку, которую нужно решить: предвзятость данных или галлюцинации ИИ!
Команда Пай-ботаВ ЭФИРЕ
Бип! Привет, детектив! Сегодня мы узнаем, что ИИ не всегда прав. Иногда он копирует наши ошибки, а иногда просто выдумывает вещи!
Прогресс темы0%
Представьте ИИ как зеркало. Если показывать ему только фотографии кошек, он может считать, что собак не существует! Если наши данные содержат старые предрассудки, ИИ будет их повторять. Например, робот-подборщик персонала выбирает только одного типа человека, потому что именно такой был в прошлом. Это называется «алгоритмическая предвзятость».
1
Подтема 1
Зеркало (предвзятость)
ИИ отражает данные, которые мы ему даём — даже несправедливые части.
В отличие от вас, ИИ ненавидит говорить «я не знаю». Он предсказывает следующее слово, как гигантская игра «Мад Лайбы». Иногда он «галлюцинирует» и придумывает факты, которые звучат правдоподобно, но полностью фальшивы! Он просто следует паттерну, не проверяя истину.
2
Подтема 2
Мечтатель (галлюцинация)
Когда ИИ звучит чрезвычайно уверенно, но совершенно неверно.
Даже самые умные ИИ в мире всё ещё совершают ошибки. Всегда проверяйте свои факты с надёжным источником!
Знаете ли вы?
Даже самые умные ИИ в мире всё ещё совершают ошибки. Всегда проверяйте свои факты с надёжным источником!
Загрузка...
⭐⭐⭐

Миссия выполнена!

Вы — детектив по искусственному интеллекту!